Khu nhà số 47 phố Lý Thường Kiệt (thời Pháp thuộc là đường Carreau) nguyên là trường Dòng mang tên Giám mục Puginier được xây cất xong năm 1897. Vào thời gian đó, Giám mục Hà Nội là Pierre-Marie Gendreau đã lấy một thửa đất rộng để xây trường dòng mới do nhu cầu giảng dạy và đào tạo các tu sĩ ngày càng gia tăng. Trường được đặt theo tên của vị Giám mục tiền nhiệm.

Sau ngày giải phóng Thủ đô 10/10/1954, một số cơ sở tôn giáo không còn hoạt động và được nhà nước chính thức quản lý. Trường dòng Puginier cũng được chuyển thành trường học phổ thông. Các cán bộ giáo dục vào tiếp quản Thủ đô nhận nhiệm vụ tập hợp con em các chiến sĩ, cán bộ vào giải phóng Hà Nội, thành lập một trường học, học theo chương trình 9 năm của ngoài kháng chiến.

Thời gian đầu trường gồm các học sinh cấp II, cấp III và các lớp dự bị đại học. Sau đó, Trường được bổ sung thêm con em của các cán bộ ở lại miền Bắc chiến đấu. Các thầy giáo, cô giáo là những thầy, cô trẻ được đào tạo từ khu học xá Nam Ninh - Trung Quốc. Trường được đặt tên là Trường Phổ thông cấp 2-3 Hà Nội (PT2-PT3).

Ngay từ những ngày đầu Trường được Chính phủ và nhân dân Cộng hòa Dân chủ Đức giúp đỡ nhiều về các trang thiết bị dạy học.

Từ năm 1960, trường chuyển sang dạy chương trình 10 năm, chỉ gồm những học sinh cấp III. Trường được gọi tên là Trường Phổ thông cấp 3 (PT3A-PT3B). Trong giai đoạn 1960 - 1965, thầy và trò tích cực đi đầu trong phong trào thi đua học gắn liền với thực hành, tham gia tích cực xây dựng chủ nghĩa xã hội ở miền Bắc. Nhiều thầy, cô đã xung phong đi giảng dạy ở miền núi, các thầy cô tiếp tục nâng cao trình độ và nghiệp vụ chuyển về dạy ở các trường Đại học hoặc nhận nhiệm vụ lãnh đạo các trường PTTH ở Hà Nội. Học sinh tích cực tham gia phong trào phát triển kinh tế văn hóa miền núi, đi xây dựng nông trường sữa Mộc Châu, công trường đá tại tỉnh Hòa Bình.

Từ năm 1970, trường được gọi là trường phổ thông cấp 3 Hà Nội A - B. Trường phân tán thành nhiều phân hiệu nhỏ để thực hiện nhiệm vụ dạy học và học trong thời kỳ chiến tranh đế quốc Mỹ phá hoại ở miền Bắc. Nghe theo tiếng gọi của Đảng, nhiều thầy cô giáo trẻ và học sinh hăng hái lên đường nhập ngũ, thực hiện tốt phong trào "3 sẵn sàng", đi bất cứ nơi đâu tổ quốc cần.

Từ năm 1970 - 30/6/1997, trường được chia tách thành 2 trường, một trường mang tên PTTH Việt Đức (học buổi sáng), một trường mang tên PTTH Lý Thường Kiệt (học buổi chiều).

Ngày 1/7/1997, Trường PTTH Việt Đức "và PTTH Lý Thường Kiệt sáp nhập thành Trường Trung học phổ thông Việt Đức. Trường liên tục đạt danh hiệu trường Tiên tiến xuất sắc của ngành Giáo dục - Đào tạo của Thủ đô Hà Nội.

Trong quá trình phát triển, trường đã được Chủ tịch Hồ Chí Minh, Thủ tướng Phạm Văn Đồng, Phó chủ tịch Nguyễn Thị Bình và nhiều các nhà lãnh đạo trong và ngoài nước tới thăm.